今天延續上一篇關於ASUS AI PC的使用心得, 想說除了ASUS內建的AI ExpertMeet之外, 內存的NPU應該可以做一些其他用途吧?! 果然問了一下AI之後, 才知道原來Intel早就針對帶有算力的核心提供了Intel AI Playground這樣簡易的UI操作介面, 它可以安裝LLM並調用與優化本機的AI算力使用, 因此我照著AI建議的安裝說明與操作, 選擇了推薦安裝的AI Playground Studio版本, 但一開始在任何AI功能可以被使用之前都需要下載並安裝LLM, 理論上是Hugging Face上任君挑選, 我一開始隨意裝的是Gemma 4 26B的版本, 到這裡才發現原來還有很多模型的技術細節需要學習(如什麼是量化?什麼是MoE?), 目前閉源的介面都優化到不需要考慮這麼多選項, 但開源模型的使用, 就有很多調整的參數與彈性可以自由設定~

從對話使用介面上來看, 比較像是ChatGPT剛推出時的早期陽春版, 但可用功能似乎也不少, 大分類有Chat, Image Gen, Image Edit, Video四大功能區塊, 而每一個大分類底下又有更多細分的功能

• Chat : Basic Chat, NPU Chat, Chat with RAG, Reasoning, Vision, Agentic, Advanced Chat, Home Agent
• Image Gen : Draft Image, HD Image, Pro Image, Pro 2 Image, Pro 3 Image, Control Face, Manual
• Image Edit : Upscale, Edit By Prompt, Edit by Prompt 2, Sketch to Photo, Change Face, Inpaint, Outpaint, Image To 3D Model, Colorize
• Video : LTX-2.3, LTX-2.3-i2v, LTX-Video, Wan2.2-14B-i2v, Wan2.1-VACE

一看就知道有超多技術細節的, 此時也才恍然大悟發現原來ChatGPT, Gemini等等的大平台整合性好到一般人其實都不知道背後有這麼多不同的模型與功能細節, 不過回到應用層面來說, 雖然我這台工作筆電上可以安裝LLM, 可以用來處理具機密隱私的內容, 但實務上來說, 畢竟模型的聰明程度有差26B vs 70B(或更大更多), 使用感受上其實還是覺得雲端平台來的更好用, 不僅是回答的速度與結果(因為也包含Web Search)所以本機端的AI到底實用性上該怎麼定位呢? 處理機密資訊其實也需要聰明的模型去判斷什麼是人名或是何謂機敏資料@@ 但以上談論的都還只是文字生成的部分, 至於地端的image和video的生成是還沒有機會嘗試(迷因:需要本機端生成什麼的圖片或影片呢?), 看來還有很大的探索學習空間!! AI的學習旅程還很長~~